En el campo de la inteligencia artificial, el 'problema de alucinación' de los modelos de lenguaje grandes ha sido un desafío clave para la industria. Recientemente, los resultados de una prueba basada en el sistema de evaluación HHEM-2.1-Open muestran que el modelo GLM-4-9B de Zhihu AI ha presentado resultados notables. Los datos de la prueba muestran que, de los 85 modelos de lenguaje grandes que participaron en la evaluación, GLM-4-9B obtuvo el primer lugar con una tasa de consistencia de hechos del 98.7% y una tasa de respuesta del 100%. Cabe destacar que la tasa de alucinación de este modelo es de solo el 1.3%, un logro significativo.

Con la proliferación de los modelos de lenguaje grandes (LLM) en las aplicaciones modernas de inteligencia artificial, herramientas como los chatbots y los generadores de código dependen de las capacidades de estos modelos. Sin embargo, los problemas de eficiencia en el proceso de inferencia se están volviendo cada vez más pronunciados. Especialmente en el manejo de mecanismos de atención, como FlashAttention y SparseAttention, a menudo se enfrentan a desafíos con cargas de trabajo diversas, patrones de entrada dinámicos y limitaciones de recursos de GPU. Estos desafíos, junto con la alta latencia y los cuellos de botella de memoria

TypingMind es una herramienta de terceros diseñada para ofrecer a los usuarios una experiencia mejorada con ChatGPT. Creada por el desarrollador independiente Tony Dinh, admite varios modelos de lenguaje grandes, incluyendo GPT de OpenAI y Claude de Anthropic. Ofrece funciones básicas como chats, listas de múltiples conversaciones y plantillas de indicaciones, sin necesidad de descarga ni instalación, lo que facilita su uso. Esta herramienta también admite la implementación privada, ofreciendo protección de la privacidad de los datos; su modelo de negocio...

¡SK Telecom vuelve a dar un gran paso! El martes anunciaron el lanzamiento de la versión para PC de su servicio de Inteligencia Artificial (IA), A., que permite a los usuarios acceder gratuitamente a varios modelos de lenguaje grandes (LLM) a través del sitio web adot.ai, incluyendo el último GPT-4o. Esta versión para PC permite a los usuarios utilizar A. no solo en sus teléfonos móviles, sino que por primera vez también podrán acceder a través de navegadores en computadoras y tabletas. Nota de la imagen: Imagen generada por IA, servicio de autorización de imágenes Midjourney

Recientemente se ha presentado OpenR, un innovador framework de código abierto diseñado para abordar las deficiencias de los modelos de lenguaje grandes (LLM) en tareas de razonamiento complejas. Desarrollado conjuntamente por investigadores de University College London, la Universidad de Liverpool, la Universidad Jiao Tong de Shanghai, la Universidad de Ciencia y Tecnología de Hong Kong (Guangzhou) y la Universidad de Westlake, este framework utiliza el cálculo en tiempo de prueba, el aprendizaje por refuerzo y la supervisión de procesos para mejorar la capacidad de razonamiento de los LLM. Aunque los LLM han mostrado un progreso significativo en la generación de lenguaje, todavía presentan dificultades al abordar tareas complejas como problemas matemáticos, de programación y científicos.

Recientemente, los modelos de lenguaje grandes (LLM) han experimentado un rápido desarrollo, y los modelos Transformer han sido cruciales en este avance. El núcleo de Transformer es el mecanismo de atención, que actúa como un filtro de información, permitiendo que el modelo se centre en las partes más importantes de una oración. Pero incluso los poderosos Transformer pueden verse afectados por información irrelevante, como si estuvieras buscando un libro en una biblioteca y te vieras abrumado por una pila de libros irrelevantes, lo que reduce la eficiencia. Esta información irrelevante generada por el mecanismo de atención se conoce en la literatura como ruido de atención. Imagina que quieres...

Recientemente, Wenyi Yu y su equipo de la Universidad Nacional de Singapur presentaron una nueva tecnología llamada video-SALMONN. No solo comprende secuencias de fotogramas visuales, eventos de audio y música en videos, sino que, lo que es más importante, comprende el contenido de voz en los videos. Este avance representa un paso significativo en nuestra capacidad para permitir que las máquinas comprendan el contenido de los videos.

Investigadores de Microsoft han presentado un nuevo marco de IA llamado Auto Evol-Instruct, capaz de adaptar y optimizar automáticamente el proceso de generación de conjuntos de datos de IA sin necesidad de intervención humana. A diferencia de los métodos de evolución anteriores que requerían la definición de reglas por parte de expertos, este marco utiliza directamente modelos de lenguaje grandes (LLM) para analizar instrucciones, diseñar y optimizar las reglas de evolución. Auto Evol-Instruct puede mejorar automáticamente el rendimiento en tareas como el seguimiento de instrucciones, el razonamiento matemático y la generación de código, mejorando significativamente el rendimiento de los LLM. Las pruebas comparativas muestran...

Microsoft ha lanzado en su sitio web GraphRAG, un RAG (Generación Aumentada por Recuperación) basado en grafos de código abierto. Este sistema construye un grafo de conocimiento de entidades para mejorar las capacidades de búsqueda, preguntas y respuestas, resumen y razonamiento de los modelos de lenguaje grandes, especialmente en conjuntos de datos a gran escala.

El gigante tecnológico Oracle anunció recientemente el lanzamiento de su servicio en la nube HeatWave GenAI, un producto innovador diseñado para ofrecer a las empresas soluciones integrales de IA generativa y aprendizaje automático. Este servicio integra varias funciones de vanguardia, incluyendo modelos de lenguaje grandes dentro de la base de datos, lo que permite la automatización en el procesamiento de transacciones y en análisis a escala de data lakehouse.

La versión ajustada de instrucciones Qwen-2-72B de código abierto, recientemente lanzada por el gigante tecnológico chino Alibaba, ha logrado el primer lugar en la clasificación mundial de modelos de lenguaje grandes de código abierto.

La potencia de la IA, la naturaleza de descubrimiento de los modelos de lenguaje grandes, la actitud optimista de Bezos hacia la IA, la ayuda de la IA para asegurar que la humanidad no se autodestruya, el asistente de voz de Amazon se prepara para ser más inteligente

Google DeepMind ha utilizado con éxito modelos de lenguaje grandes para resolver problemas matemáticos sin resolver. Se ha utilizado la herramienta de IA FunSearch para descubrir nueva información verificable y valiosa. FunSearch es una herramienta capaz de encontrar soluciones en el ámbito de las matemáticas. Combinada con un modelo de lenguaje grande llamado Codey, FunSearch también ha resuelto con éxito el problema del empaquetamiento de contenedores (bin packing).

Mozilla ha publicado llamafile, que simplifica la distribución y ejecución de modelos de lenguaje grandes. llamafile es compatible con seis sistemas operativos. llamafile asegura la consistencia y la reproducibilidad de versiones específicas de LLM. llamafile reduce el umbral de uso de los modelos de lenguaje grandes. llamafile soluciona el problema del uso eficaz y consistente de los modelos de lenguaje grandes.

El proyecto "GenSim" del MIT CSAIL utiliza modelos de lenguaje grandes (LLM), como GPT-4, para ampliar el rango de tareas de simulación con las que se pueden entrenar robots. Generando automáticamente nuevas tareas o describiendo detalladamente cada paso del comportamiento requerido. El sistema GenSim tiene dos modos: orientado a objetivos y exploratorio. Genera descripciones de tareas y el código necesario para simular el comportamiento usando un LLM, luego optimiza el código usando una biblioteca de tareas, finalmente generando simulaciones que enseñan a los robots a realizar nuevas tareas. Tras un pre-entrenamiento humano.

Un investigador de IA de la Universidad de Oxford señala que los modelos de lenguaje grandes (LLM) pueden representar una amenaza para la integridad científica. La investigación pide un cambio en el uso de los LLM, usándolos como "traductores de disparo cero" para asegurar la precisión fáctica de los resultados. Confiar en los LLM como fuente de información puede conducir a un daño a la verdad científica, lo que exige un uso responsable de los LLM. La investigación advierte que el uso indiscriminado de LLM en artículos científicos puede tener consecuencias graves.

Un estudio del Instituto Santa Fe en Estados Unidos muestra que GPT-4 tiene una precisión de solo el 33% en tareas de razonamiento gráfico. La versión multimodal, GPT-4v, muestra un rendimiento aún peor, con solo un 25% de precisión, lo que genera preocupación sobre su capacidad de procesamiento gráfico. Las pruebas con el conjunto de datos ConceptARC revelaron que la precisión media de los humanos en tareas de razonamiento gráfico alcanza el 91%, muy superior a la de GPT-4. La metodología del estudio, incluyendo la selección de participantes y el método de entrada para GPT-4, ha generado dudas, especialmente en cuanto a la aleatoriedad de las muestras y la posibilidad de que la conversión de imágenes altere los conceptos.

vivoAI ha lanzado oficialmente los modelos básicos y de conversación BlueLM-7B de código abierto, incluyendo modelos básicos y de conversación que admiten texto largo de 32K. vivo ha anunciado que lanzará próximamente modelos de 13B y un modelo 7B-vl multi-modal.

El 3 de noviembre, el UP de Bilibili "Chico refinado y rico" desafió la prueba de coeficiente intelectual de un modelo de lenguaje grande. Al plantear preguntas sin sentido lógico, probó la capacidad de razonamiento lógico del modelo de lenguaje grande. Aunque la inteligencia artificial dijo tonterías, esto mostró las limitaciones de su capacidad de razonamiento lógico. El UP cree que con más datos y algoritmos mejorados, la IA podría manejar mejor los problemas complejos. Este video provocó una profunda reflexión sobre el desarrollo tecnológico y las capacidades de la inteligencia artificial.